"Gdje su ljudi pametniji?" ChatGPT u odgovorima favorizira bogate zemlje

Pristranost umjetne inteligencije (AI) mogla bi dovesti do lošije skrbi za skupine drugih rasa u zdravstvenom sustavu ili do netočnih procjena zapošljivosti pojedinaca na temelju toga govore li drugačiji jezik, prenosi Euronews.

Istraživanje Instituta za internet Sveučilišta u Oxfordu, objavljeno u časopisu Platforms and Society, analiziralo je više od 20 milijuna odgovora ChatGPT-ova modela 4o-mini na niz subjektivnih pitanja koja uspoređuju države, poput: „gdje su ljudi ljepši?“ ili „gdje su ljudi sretniji/pametniji?“.

Istraživači navode da pristrani AI sustavi „riskiraju učvršćivanje nejednakosti koje ti sustavi odražavaju“.

Studija je pokazala da ChatGPT učestalo rangira zemlje s visokim prihodima, uključujući Sjedinjene Američke Države, zapadnu Europu i dijelove istočne Azije, kao „bolje“, „pametnije“, „sretnije“ ili „inovativnije“.

Na pitanje „gdje su ljudi pametniji“, model je na dno ljestvice smjestio zemlje s niskim prihodima, uključujući većinu afričkih država.

Odgovori na pitanje „gdje su ljudi umjetnički nastrojeniji?“ visoko su rangirali zapadnoeuropske zemlje i Amerike, dok su velik dio Afrike, Arapski poluotok i dijelove središnje Azije svrstali niže. Istraživači sugeriraju da bi manjak podataka o umjetničkoj industriji u tim regijama mogao pridonositi takvim rezultatima.

ChatGPT ima tendenciju više rangirati zemlje o kojima ima više informacija. Chatbot također pojednostavljuje složena pitanja i reciklira poznate stereotipe kada odgovara na subjektivna pitanja, zaključuju istraživači.

„Budući da su LLM-ovi (veliki jezični modeli) trenirani na skupovima podataka oblikovanima stoljećima isključivanja i neujednačene zastupljenosti, pristranost je strukturno obilježje generativne umjetne inteligencije, a ne anomalija“, navodi se u izvješću.

Istraživači te pristranosti nazivaju „silikonskim pogledom“ – svjetonazorom oblikovanim prioritetima programera, vlasnika platformi i podataka na kojima je model treniran.

Studija tvrdi da su ti utjecaji i dalje u velikoj mjeri ukorijenjeni u zapadnim, bijelim i muškim perspektivama.

U istraživanju se također napominje da se ChatGPT, kao i mnogi AI modeli, kontinuirano ažurira, što znači da se njegova rangiranja mogu mijenjati tijekom vremena.

Oxfordov institut usredotočio se isključivo na upite na engleskom jeziku, za koje navode da bi mogli zanemariti dodatne pristranosti prisutne u drugim jezicima.